در تصاویری خیالی‌ که یک برنامه هوش مصنوعی با استفاده از توصیف‌های یک پژوهشگر تولید کرد، افسران پلیس دونالد ترامپ را تعقیب و دستگیر می‌کنند. در سایر تصاویر رئیس‌ جمهوری سابق در لباس سرهمی نارنجی پشت میله‌های زندان فدرال دیده می‌شود.   

این تصاویر که الیوت هیگینز، بنیانگذار بلینگ‌کت (Bellingcat) آن‌ها را با استفاده از برنامه قدرتمند تبدیل متن به تصویر میدجرنی (Midjourney) ساخته است، همزمان که هیات‌منصفه دادگاه نیویورک شواهد مربوط به تحقیقات جنایی علیه رئیس‌جمهوری سابق را بررسی می‌کند  که محکومیت و بازداشت قریب‌الوقوع خود را پیش‌بینی کرده است، در شبکه‌های اجتماعی منتشر شدند.

این تصاویر، مثال بارز انواع پدیده‌های فراگیری است که بر اساس تصویرهای جعلی محصول برنامه‌های هوش مصنوعی به وجود آمده‌اند و از آن‌ها برای انتشار اخبار دروغ زیانبار در جهت ایجاد آشوب و اختلال در چرخه‌های خبری و انتخابات استفاده می‌شود.

مارک وارنر، سناتور دموکرات آمریکایی به واشنگتن‌پست گفت که قانونگذاران پیرامون توان رسانه‌های مصنوعی برای «انتشار اخبار نادرست، و در مجموع ایجاد سردرگمی و اختلاف» هشدارهای مشابهی صادر کرده‌اند.

وارنر، رئیس کمیته اطلاعات سنا، گفت اکنون این فناوری به جایی رسیده که «این ابزارها به شکل گسترده در دسترس‌اند و بسیار قدرتمند».

ووانی رویچاودری (Vwani Roychowdhury)، استاد دانشکده مهندسی ساموئلی یوسی‌ال‌ای، به هاف‌پست گفت: «همانطور که همگی دیده‌ایم، ساخت ویدیوها و تصاویر جعلی و نمایش آن‌ها به ‌صورت بسیار واقع‌نمایانه به مراتب آسان‌تر شده است. به نظر من، چه این اطلاعات صحیح یا به‌لحاظ اجتماعی پذیرفتنی باشد چه دروغ‌پراکنی، همه به منزله بخشی از یک روایت جا افتاده‌اند.»

«ساخت تصاویر دستگیری ترامپ درحالیکه منتظر دستگیر شدن اوییم.»

این تصاویر فراگیر بعد از انتشار دست‌کم دو تصویر جعلی مهم دیگر مربوط به مقام‌های منتخب ایالات متحده آمریکا در رسانه‌های اجتماعی، باعث شد پلتفرم‌هایی- که به دلیل واکنش‌ها و سیاست‌های گوناگون حاکم بر دروغ‌پراکنی و تصاویر احتمالا مخرب هوش مصنوعی با انتقاد مواجه شده بودند- اقدام‌هایی انجام دهند.

ماه گذشته، ویدیویی جعلی که در توییتر منتشر شد، ظاهرا الیزابت وارن، سناتور دموکرات ایالات متحده آمریکا، را نشان می‌داد که ادعا می‌کرد جمهوری‌خواهان نباید اجازه رای دادن داشته باشند. این بستر رسانه‌های اجتماعی برچسب «صدا [سخنان] تغییریافته» روی همین ویدیو الصاق کرد و کمی بعد، حسابی که این ویدیو را منتشر کرد، به حالت تعلیق درآمد.

جک پوسوبیک، فعال راست افراطی نیز یک ویدیو به‌اصطلاح «جعل عمیق» از جو بایدن، رئیس‌ جمهوری ایالات متحده آمریکا، منتشر کرد که در آن، بازگرداندن طرح خدمت نظامی برای آمریکایی‌ها را برای مبارزه با جنگ روسیه در اوکراین، اعلام می‌کند.

پوسوبیک، این ویدیو را «پیش‌نمایشی کوچک از آنچه در راه است» خواند. توییتر برچسب «جعل عمیق» بر آن ویدیو الصاق کرد که نشان می‌دهد با کمک هوش مصنوعی تولید شده است.   

او پیش‌تر در ماه جاری در جریان گردهمایی کنش سیاسی محافظه‌کاران که با دقت به آن توجه شد، از ساخت این ویدیو و سناریو کاملا ساختگی دفاع کرد. او گفت: «محافظه‌کاران باید به واهمه» از رسانه‌ها و راستی‌آزمایی «پایان دهند، گور بابای همه‌شان!»  

سم گرگوری، مدیر اجرایی سازمان حقوق بشری شاهد (Witness)، در گفت‌وگو با واشنگتن‌پست گفت که گرچه تصاویر تولیدی هیگینز به‌وضوح با هدف تولید محتوای جعلی ساخته شد، انتشار گسترده و ارائه آن‌ها به دست برخی عوامل بدخواه نشان می‌دهد که «در توانایی ساخت تصاویر جعلی اما باورپذیر و به صورت گسترده، پیشرفتی مهم حاصل شده است.»

او افزود:«و به‌راحتی می‌بینیم که چگونه این کار به شیوه‌ای هماهنگ و به قصد فریب انجام می‌شود.»

 رویچادری به هاف‌پست گفت: «واقعا مهم نیست که راستی‌آزمایی انجام شود یا نه ... چون لطمه آن وارد شده است.»

برندیس مارشال، مدیرعامل دیتاادکس (DataedX) و استاد کامپیوتر کالج اسپلمن، به هاف‌پست گفت که انتشار چنین تصاویری به منزله «رفتار بد عمدی» و «راهکار حساب‌شده» برای تحریک حامیان تلقی می‌شود، و «کارزار موفق» ترامپ نیز که دستگیری او را پیش‌بینی می‌کند، توجه را از سایر اخباری که منتشر نمی‌شوند، منحرف کرده است.

ال تامپکینز از موسسه پوینتر برای تعیین اینکه آیا تصویرسازی بسیار پیچیده هوش مصنوعی واقعی است یا خیر، فهرستی ارائه داد؛ از جمله اینکه ببینیم آیا سازنده آن نحوه ثبت تصویر را فاش کرده یا خیر، آیا واترمارک [لوگو] دارد یا خیر، و سایر «ویژگی‌ها» در تصویر.

در این بین، همانطور که ان‌پی‌آر (NPR) در پوشش منتهی به انتخابات ریاست جمهوری ۲۰۲۰ اشاره کرد، و ترس از اینکه فناوری نوظهور «جعل عمیق» کارزارها را به هرج و مرج بکشد، دروغ‌پراکنی همین حالا نیز از طریق روایت‌های طرفداران، ویرایش فریبنده یا دروغ‌های آشکار به ‌سرعت منتشر می‌شود که به همان اندازه برای پیشبرد اهداف خاص موثر واقع شده است.